Minorize-Maximization
Minorize-Maximization（MM）是一种迭代优化方法。当目标函数比较复杂难以优化时，通过引入一个近似函数来迭代求解。具体来说，对于问题
\[ x^* = \arg\max_x f(x) \]
可以寻找替代函数\(g(x)\)，并使其满足：
- \(g(x)\)是\(f(x)\)的下界：
\[ f(x) \ge g(x), \forall x \]
- 在\(x_0\)处，下界是紧的：
\[ f(x_0) = g(x_0) \]
MM 方法的优化步骤如下：
- 步骤1:在\(x_t\)处，构造下界函数 \(g(x)\)，使其满足：
\[ f(x) \ge g(x), 且 f(x_t) = g(x_t) \]
- 步骤2: 更新\(x\):
\[ x_{t+1} = \arg\max_x g(x) \]
- 步骤3：重复步骤1，重新构造下界函数，迭代优化至收敛；